Apple Intelligence : ce qu'il y a sous le capot | Silicon

Clément Bohic - Silicon - 23/08
On en sait plus sur les principaux LLM sous-jacents à Apple Intelligence. Des datasets aux étapes d'entraînement, tour d'horizon.

Pruning et distillation, duo gagnant pour développer un LLM ? Les deux techniques ont en tout cas été mises en œuvre pour l’un des modèles qui sous-tendent Apple Intelligence.

Annoncée en juin, cette marque regroupe un bouquet de services ayant trait à l’IA, notamment générative. Apple y ouvrira l’accès cet automne sur certains iPhone, iPad et Mac. Avec un point d’interrogation en Europe au vu des « incertitudes réglementaires » qu’engendre le DMA.

On a davantage de certitudes sur les fondements techniques d’Apple Intelligence. En particulier depuis que le groupe américain a publié un rapport spécifique, consacré à deux des modèles de fondation impliqués (un qui fonctionnera en local, un autre côté serveur). Ces transformeurs font partie d’une famille qui inclut aussi un modèle de code et un modèle de diffusion.

Des données du web à celles acquises sous licence

Apple dit avoir utilisé, pour alimenter ses modèles, trois grandes sources :

– Données d’éditeurs exploitées sous licence – Datasets ouverts ou accessibles au public – Informations publiquement accessibles sur le web

Extraites en combinant le mode lecture de Safari e...
[Courte citation de 8% de l'article original]